Studio, facile alterare dati e produrre una diagnosi sbagliata
Sono sempre di più le applicazioni dell'intelligenza artificiale in campo sanitario, ad esempio fanno diagnosi interpretando i test medici, ma affidarsi troppo agli algoritmi potrebbe nascondere un 'lato oscuro'. E' fin troppo facile, infatti, ingannare questi programmi facendo magari credere che c'è una malattia in realtà inesistente. Lo sottolineano in uno studio gli esperti del Mit e della Harvard University su Science.
Anche se ancora non ci sono report di attacchi hacker che abbiano violato una di queste applicazioni, sottolinea lo studio, l'ipotesi potrebbe verificarsi vista la frequenza di queste violazioni. E oltre ai cybercriminali potrebbero essere gli stessi medici a metterla in pratica, magari per farsi rimborsare cifre più alte dalle assicurazioni. L'intelligenza artificiale, ricorda la ricerca, è in sperimentazione in tutto il mondo su una serie di patologie, dai tumori a quelle dell'occhio per cui c'è una app già approvata dall'Fda che trova i segni di cecità dovuta al diabete. Lo studio dimostra, ad esempio, che una lesione benigna della pelle può essere interpretata come maligna dall'intelligenza artificiale cambiando pochi pixel o semplicemente ruotando di 90 gradi l'immagine. Anche poche modifiche ad un testo possono avere grandi effetti: se nella descrizione del paziente si scrive 'lombalgia' invece di 'dolore alla schiena' e 'dipendenza cronica da alcol' invece che 'abuso di alcol', cambia il rischio di sviluppare dipendenza dagli oppiacei calcolato che passa da molto alto a molto basso.
"Ci sono delle tecniche per difendersi - sottolinea l'articolo - se c'è la volontà politica. Ad esempio in casi in cui i dati o le immagini potrebbero essere modificate, si può estrarre e salvare una 'impronta digitale'". Questo tipo di 'adversarial attacks', cioè le contraddizioni in cui incorre la tecnologia, argomentano gli esperti, del resto sono già stati messi in pratica su altre applicazioni dell'intelligenza artificiale. Alcuni ricercatori hanno dimostrato ad esempio che un piccolo proiettore a infrarossi montato su un cappello può far credere agli algoritmi per il riconoscimento facciale che la persona inquadrata abbia caratteri caucasici invece che asiatici. Anche le auto senza pilota possono essere deviate dal percorso facendo dei piccoli cambiamenti alla segnaletica stradale. "Gli interessi nel settore della salute - concludono gli autori - uniti ai miliardi di dollari in gioco rendono questo un problema attuale".
La proposta di legge di iniziativa dell’On. Roberto Pella è stata approvata il 28 maggio in Commissione Affari Sociali della Camera, ed è stata calendarizzata per la votazione in Aula
Ogni fase porta con sé un insieme unico di esperienze e cambiamenti fisiologici. Tuttavia, una costante accomuna molte di queste fasi: la suscettibilità della donna allo stato infiammatorio e al dolore
Approccio Integrato alla Comprensione e alla Gestione della Medicina di Precisione
La Federazione dei medici internisti ospedalieri partecipa alla Conferenza Internazionale: THE FOREST CITY - Soluzioni basate sulla Natura per un futuro sostenibile organizzata dall’Arma dei Carabinieri
La proposta di legge di iniziativa dell’On. Roberto Pella è stata approvata il 28 maggio in Commissione Affari Sociali della Camera, ed è stata calendarizzata per la votazione in Aula
Ogni fase porta con sé un insieme unico di esperienze e cambiamenti fisiologici. Tuttavia, una costante accomuna molte di queste fasi: la suscettibilità della donna allo stato infiammatorio e al dolore
Approccio Integrato alla Comprensione e alla Gestione della Medicina di Precisione
La Federazione dei medici internisti ospedalieri partecipa alla Conferenza Internazionale: THE FOREST CITY - Soluzioni basate sulla Natura per un futuro sostenibile organizzata dall’Arma dei Carabinieri
Indagine Groupama, cresce l'importanza di altre figure
La prevenzione visiva, non solo come mezzo di risparmio economico, ma come beneficio per tutte le fasce d'età, sin dai primi giorni di vita, diventa un pilastro essenziale
La proposta di legge di iniziativa dell’On. Roberto Pella è stata approvata il 28 maggio in Commissione Affari Sociali della Camera, ed è stata calendarizzata per la votazione in Aula
Il fondo immobiliare che realizzerà le case "spoke" le affiderà ai medici interessati in affitto o in leasing
Commenti